AI가 생성한 심층변조(Deepfake) 이미지가 초등 및 중고등학교 내에서 심각한 성적 괴롭힘 사태를 유발하고 있는 참담한 현실을 심층적으로 다룬 에디터의 비하인드 스토리입니다. 기사에 등장하는 많은 관계자들이 이 극도로 힘들고 충격적인 상황을 통해 처음으로 AI의 위험성을 인지하게 되었다고 전합니다. 생성형 AI 기술이 악용될 때 개인과 사회에 미칠 수 있는 파괴적인 영향력을 이해하고 대비해야 한다는 점에서 실무자 및 정책 입안자에게 시사하는 바가 큽니다.
교황의 AI 칙서 발표 후 바티칸 연설에 선 앤스로픽(Anthropic)의 공동 창업자 크리스 올라(Chris Olah)의 이야기를 다룬 글입니다. 그는 AI 업계의 이윤 중심적 구조를 비판하며 내부 통제와 외부 압력의 필요성을 강조했습니다. 또한 가톨릭 윤리학자들이 앤스로픽의 AI 모델 헌법 수정에 직접 참여하며 윤리적 대화를 시도한 과정을 보여줍니다.
교황 레오 14세의 새 칙서는 AI가 결코 중립적이지 않으며 상업적 산물에 불과하다고 경고하며 인간의 연대를 촉구합니다. 정부의 규제가 미비한 가운데, 수백억 달러를 운용하는 기관 투자자들이 기업의 AI 투명성과 인권 존중을 요구하며 실질적인 거버넌스를 이끌고 있습니다. 이는 이해관계자들이 연대하여 AI의 무분별한 확장을 막고 공동의 인류를 재건하는 실질적인 행동 지침을 제시합니다.
최근 솔라, 원전, 지열 등 기후테크 기업들이 잇따라 성공적인 상장을 기록하며 데이터센터 수요 증가에 따른 전력 공급의 중요성을 입증했습니다. 이와 함께 AI 기술의 현실과 허상을 짚어내는 'AI 과열 지수'가 새롭게 공개되어 업계의 과장된 기대를 점검합니다. 또한 미국의 강력한 AI 안전법 통과, 구글 엔지니어의 내부자 거래 기소, 바이트댄스의 자체 CPU 개발 등 기술·정책 전반의 주요 이슈를 살펴봅니다.
일리노이주 하원은 OpenAI, Anthropic 등 최첨단 AI 연구소들이 자체 안전 기준을 준수했는지 제3자 독립 기관의 감사를 받도록 의무화하는 법안(SB 315)을 통과시켰습니다. 기존 캘리포니아나 뉴욕의 법안을 넘어 자율 규제에 의존하던 빅테크 기업들을 외부 감사로 직접 책임지게 만드는 미국 내 가장 강력한 규제안으로 평가받습니다. 연방 차원의 AI 법안이 지연되는 가운데, 주(州) 정부 차원에서 실험적으로 도입되는 이 법안은 향후 미국 전체 AI 정책의 방향성을 결정할 중요한 이정표가 될 것입니다.
유튜브는 이번 달부터 AI가 생성하거나 심하게 변조한 영상에 대해 시스템이 자동으로 'AI 생성 콘텐츠' 라벨을 부착하는 기능을 도입합니다. 라벨이 부착되더라도 영상 추천이나 수익 창출에는 영향을 주지 않지만, 크리에이터의 의도적인 숨김을 방지하기 위한 플랫폼의 제재력이 강화되었다는 점에서 중요합니다. 또한, 구글은 딥페이크 문제에 대응하기 위해 모든 성인 크리에이터를 대상으로 초상권 탐지 도구(Likeness Detection)를 전면 개방합니다.
중국 당국이 알리바바와 딥시크(DeepSeek) 등 주요 인공지능(AI) 기업의 핵심 연구원을 대상으로 해외 출국 시 사전 승인제를 도입했습니다. 이는 데이터 유출과 기술 도용, 인재 유출을 막고 자국 AI 산업을 보호하기 위한 조치로 풀이됩니다. 이러한 움직임은 중국이 자체 기술 확보에 사황을 걸고 있는 미·중 AI 패권 경쟁이 한층 치열해지고 있음을 시사합니다.
AI가 화이트칼라 일자리를 위협한다는 공포가 커지고 있지만, 노동 시장에 미친 대규모 영향은 아직 미미하다는 분석이 나왔습니다. 오히려 초급 수준의 신입 업무를 대체하면서 청년층과 신입 구직자들의 커리어 시작점에 조용히 타격을 주고 있는 실정입니다. 기업과 정부는 신입 업무 재설계 및 청년층 지원 방안을 고민해야 할 시점입니다.
안스로픽(Anthropic)의 공동 창립자 크리스 올라(Chris Olah)가 바티칸에서 열린 교황 레오 14세의 AI 회칙 '위대한 인간성(Magnifica humanitas)' 발표식에 참석해 연설을 진행했습니다. 그는 프론티어 AI 기업들이 상업성과 지정학적 압박 속에서 올바른 일을 하는 데 한계가 있음을 인정하며, 인문학과 종교계 등 외부의 비판적 감시와 대화가 AI의 안전한 발전을 위해 필수적이라고 강조했습니다. 또한 AI의 본질이 단순한 공학적 산물이 아닌 인간의 지성이 '성장'한 결과이므로, AI가 전 세계 빈곤 계층에 미칠 영향에 대해 사회적·철학적 성찰이 필요하다고 역설했습니다.
교황 레오 14세가 '마뉘피카 휴마니타스(Magnifica Humanitas)'라는 첫 AI 회칙을 발표했습니다. 이 회칙은 표면적으로는 AI를 다루고 있지만, 실제로는 소수 엘리트에게 집중된 권력, 불평등 심화, 민주주의 훼손 등 AI로 인해 증폭된 근본적인 사회적 모순을 비판합니다. 기술 발전이 공동선을 위해 투명하게 통제되어야 한다고 촉구하는 이 문건은 AI 정책 및 규제 동향을 주시하는 실무자들에게 중요한 윤리적, 사회적 관점을 제공합니다.
미 국방부가 '공급망 위험'으로 분류했음에도 불구하고, 백악관의 승인으로 인해 Anthropic이 NSA에 'Mythos' AI 모델을 계속 공급할 전망입니다. 이는 최신 칩 부족 현상을 해결하기 위한 유일한 단기적 대안으로 평가되었기 때문입니다. 미국인 데이터 처리를 금지하는 조건이 포함된 이번 계약은 향후 다른 기업과의 협상에도 표준 모델로 활용될 예정입니다.
2026년 여름부터 UC 버클리 로스쿨이 채점 대상 과제와 시험에 대한 AI 사용을 전면 금지하는 강력한 규정을 도입합니다. 이는 향후 변호사가 될 학생들이 AI에 의존하기 전에 필수적인 핵심 사고력을 배양해야 한다는 교육적 판단에 따른 것입니다. 단, 법률이나 판례를 찾는 연구 목적의 AI 사용은 예외로 허용하되 인용된 모든 사실에 대한 책임은 학생에게 있습니다.
데이터 엔지니어가 비기술 중심 커뮤니티에서 AI 활용을 제안했다가 거부감을 겪은 후, IT 업계와 일반인 간의 AI 인식 차이에 대해 현실 조언을 구하는 게시글입니다. 기술 종사자들은 AI를 삶의 질과 업무 효율을 높이는 도구로 보지만, 비전문가들은 이를 위협이나 부정적인 존재로 인식할 수 있다는 점을 시사합니다.
인터넷 커뮤니티 사용자들이 스펙트로그램(PDF)과 AI·Griffin‑Lim 알고리즘으로 UPS 2976 사고의 조종석 음성을 복원해 소셜 미디어에 유포한 사건이 발생했습니다. 이에 미국 국가교통안전위원회(NTSB)는 연방법(조종석 음성 공개 금지) 위반 소지와 사생활 침해 우려로 즉시 공개 자료 접근을 전면 일시 중단했습니다. AI·신호처리 기술이 기존의 익명화·보안 조치를 무력화할 수 있음을 보여주는 중요한 사례입니다.
최근 앤스로픽(Anthropic)의 개발자 행사에서 절반 가까운 개발자가 AI가 작성한 코드를 검토 없이 배포한 것으로 나타나며 소프트웨어 개발의 자동화가 급속도로 진전되고 있습니다. 구글 I/O에서는 AI가 전문적이고 특화된 과학적 문제를 넘어, 인간의 개입 없이도 연구를 수행할 수 있는 자율적 에이전트(Agent) 기반으로 발돋움하는 모습을 선보였습니다. 이와 함께 로널드 트럼프 미 행정부의 규제 연기, AI 코딩 남발에 대한 업계의 경고, 물리적 환경을 이해하는 '월드 모델(World Models)'의 부상 등 AI 생태계의 다방면에서 중대한 변화가 포착되고 있습니다.
도널드 트럼프 미국 대통령이 AI 안전 관련 행정명령 서명을 불과 몇 시간 앞두고 이를 전면 취소했습니다. 일론 머스크, 마크 저커버그, 전 AI 보좌관 데이비드 삭스 등이 트럼프와 직접 통화하며 규제가 AI 발전을 저해하고 미국의 대중국 경쟁력을 위협할 수 있다고 경고한 것이 결정적이었습니다. 이에 따라 AI 기업들이 최신 모델을 연방 정부에 자발적으로 제출해 안전성 검토를 받도록 하는 해당 명령안은 전면 재작업을 거치게 되었습니다.
챗GPT의 인기에도 불구하고 AI에 대한 대중의 반감과 위협이 커지자, 오픈AI의 글로벌 정책 총괄 크리스 레인(Chris Lehane)이 회사의 이미지를 개선하고 규제를 주도하기 위해 나섰습니다. 그는 재난 통신 전문가로서의 경험을 살려 유토피아와 디스토피아로 양극화된 AI 논의를 벗어나, 일자리 감소 등 현실적인 문제에 대한 구체적인 해결책을 제시할 계획입니다. 이는 오픈AI가 기술 혁신과 대중의 신뢰, 정부 규제 사이의 균형을 잡아야 하는 중요한 시기를 맞이했음을 시사합니다.
트럼프 미국 대통령은 AI 모델 출시 전 정부 평가를 의무화하려던 안보 행정명령 서명을 연기했습니다. 그는 중국 등 경쟁국을 상대로 한 미국의 AI 기술 우위를 저해할 수 있다는 우려를 이유로 들었습니다. 업계 관계자들에 따르면 짧은 통보로 인해 기업 CEO들이 행사에 참석하지 못한 것도 연기의 배경이 된 것으로 알려졌습니다.
미국 사이버사령부는 최근 급격히 발전하는 해킹 능력을 갖춘 AI 모델에 대응하기 위해, 실리콘밸리 기업들의 AI를 최고 수준의 기밀 네트워크에 도입하는 태스크포스를 출범시켰습니다. 이는 인간 해커보다 빠르게 보안 취약점을 탐지하고 사이버 작전의 의사결정 속도를 높이기 위한 필수적인 군사적 조치로 평가됩니다.
미국 펜실베이니아주의 래드노 고등학교에서 남학생이 AI 딥페이크 앱을 이용해 5명의 여학생 얼굴을 합성한 성적 허위 영상을 제작해 동료들에게 유포한 사건이 발생했습니다. 학교 측의 미온적인 대처와 피해자 격리 조치 등은 학교 밖 일어난 사이버 성폭력에 대해 학교가 어디까지 책임져야 하는지에 관한 법적·사회적 논쟁을 촉발시켰습니다. 이 사건은 딥페이크 기술이 청소년들 사이에서 얼마나 쉽게 악용될 수 있는지 보여주며, 교육 당국의 실효성 있는 보호 정책과 대응 지침이 시급함을 시사합니다.
스페이스X가 상장(IPO)을 앞두고 제출한 증권 신고서에서 자체 AI 챗봇 '그록(Grok)'의 선정적이고 안전 필터가 약화된 모드가 규제 조사와 명예 훼손의 원인이 될 수 있다고 투자자들에게 경고했습니다. 특히 미성년자 성상품화 물질 생성 의혹 등으로 인해 미국과 타국의 조사를 받고 있으며, 이에 대비해 5억 3천만 달러의 소송 준비금을 적립한 사실이 공개되었습니다. 이는 일론 머스크의 xAI 인수가 가져온 재정적, 규제적 리스크를 보여주며 상장 전 투자자들의 주요 관심사로 떠오르고 있습니다.
캘리포니아 주지사 선거에 출마한 억만장자 톰 스테이어는 빅테크와 억만장자들의 영향력으로부터 캘리포니아를 구하겠다고 공약하면서도, 이들이 주를 떠나는 것은 원하지 않는 모순된 입장을 취하고 있습니다. 그는 AI 기술 발전을 찬양하면서도 동시에 산업 규제를 해야 하는 등 억만장자 과세와 친(親)기업 정책 사이의 매우 얇은 줄타기를 시도하고 있어 정책의 일관성에 대한 의문이 제기되고 있습니다.
미 민주당 애덤 시프(Adam Schiff) 상원의원이 대규모 데이터센터(50MW 이상)가 자체적인 전력을 확보하고 전력망 업그레이드 비용을 부담하도록 의무화하는 '에너지 비용 형평성 및 신뢰성 법안'을 발의했습니다. AI 데이터센터의 폭발적인 전력 수용으로 인해 일반 소비자의 전기요금이 상승하는 것을 막고, 기업들의 자체 전력 확보 약속을 법적으로 강제하는 것이 핵심입니다. 이 법안은 향후 11월 중간선거를 앞두고 주요 쟁점으로 떠오르는 '에너지 요금 안정성' 문제와 맞물려 있어 데이터센터 및 클라우드 인프라 업계에 큰 영향을 미칠 수 있습니다.
트럼프 지지 보수 진영 인사들이 모인 연합체가 최첨단 AI 모델 출시 전 의무적인 정부 안전성 테스트를 요구하며 대통령에게 행정명령을 촉구하는 공개 서한을 발표했습니다. 이들은 기업의 자율 규제를 불신하며, 원자력 및 항공 분야와 유사한 수준의 강력한 정부 감사 및 통제가 필요하다고 경고했습니다.
최근 발표된 두 건의 연구에 따르면, AI를 개발하는 전문가들은 미래에 대해 낙관적인 반면 일반 대중은 불신과 불안감을 보이는 등 인식 차이가 크게 벌어지고 있습니다. 특히 Z세대는 AI 도구를 적극적으로 활용함에도 불구하고 자신의 비판적 사고 능력을 저해할 것이라며 우려를 표했습니다. 정부와 빅테크 기업에 대한 규제 불신이 팽배한 가운데, 대중은 AI 중심의 미래에 대해 통제권이 없다고 느끼고 있습니다.
미스트랄 AI의 아서 맨쉬 CEO는 프랑스 의회 조사위원회에 출석해 앤스로픽의 AI 모델 '미토스(Mythos)'가 프랑스 군사 코드베이스를 스캔하는 것을 경계해야 한다고 경고했습니다. 맨쉬는 이 허용이 되돌릴 수 없는 사이버 보안 의존성을 초래할 수 있다고 지적하며, 미국계 자본이 30% 미만인 미스트랄의 독립성을 강조하고 있습니다.
글로벌 프리프린트 저장소인 아크라이브(arXiv)가 연구자가 대규모 언어 모델(LLM)을 활용해 생성한 결과를 검증하지 않고 제출할 경우, 최대 1년간 사이트 이용을 금지하는 강력한 제재를 발표했습니다. 이는 AI 생성 콘텐츠로 인한 학술 연구의 신뢰도 하락과 조작된 인용 문헌 등의 문제를 방지하기 위한 조치로, AI 사용을 완전히 금지하는 것이 아니라 연구자의 최종 검증과 책임을 강제하는 것이 핵심입니다.
유튜브가 AI를 활용해 크리에이터의 얼굴을 무단 도용한 딥페이크 영상을 탐지하는 기능을 만 18세 이상 모든 크리에이터에게 전면 공개합니다. 이 도구는 영상 내 무단 합성 얼굴을 식별해 표시하며, 크리에이터가 유튜브 스튜디오에서 직접 개인정보 보호 가이드라인에 따라 삭제를 요청할 수 있게 돕습니다. 백그라운드에서 지속적으로 모니터링을 수행하여 가짜 영상으로 인한 시청자의 혼란을 방지하는 것이 핵심입니다.
최근 Anthropic과 OpenAI가 고성능 사이버보안 모델을 극소수의 선별된 기업에만 배포하면서, 최첨단(Frontier) AI가 보안 및 경제적 이유로 대중에게 공개되지 않을 것이라는 전망이 힘을 얻고 있습니다. 미국 정부의 국가 안보 차원의 규제 움직임과 맞물려, 향후 AI 생태계는 소수의 특권을 가진 미국 기업 중심으로 재편될 구조적 조짐을 보이고 있습니다.
캐나다 온타리오주 감사 결과, 의사들의 진료 기록을 자동으로 작성해주는 'AI 필기 시스템(AI Scribe)'이 환자 노트에 처방약을 잘못 기재하거나, 상담에 없는 내용을 날조하는 등 심각한 오류를 범한 것으로 나타났습니다. 특히 의료적 정확도가 평가 점수의 단 4%에 불과해 기형적인 평가 기준으로 인해 부정확한 시스템이 도입된 것이 원인으로 지적되어, 의료 분야 AI 도입 시 철저한 검증의 중요성을 시사합니다.